PoEM: Predicting RL Outcomes from Existing Policies
PoEM：从现有策略预测 RL 结果
🧭 RL 后训练策略组合预测
MIT CSAIL
提出 PoEM 框架，用已后训练策略的线性组合预测新奖励下的 RL 策略，无需再次运行 RL
📌 工作参考价值（4 点）
- 在推荐/搜索的 LLM 后训练中，可维护多个单奖励 LoRA adapters（如相关性、点击、多样性），用 PoEM 组合近似新奖励策略，避免每次改奖励都重新 RL；可利用 reward outputs 快速估计混合权重。
- 若业务需要在线调整多个目标权重（如 GMV vs 用户体验），可离线训练几个 base 策略，线上通过线性组合 log-policy 动态合成，降低训练与维护成本。
- 注意假设：奖励线性组合成立或 log-policy 低秩；在推荐场景中需验证多目标 reward 组合是否满足，若不满足可作为初始化再微调。
- 工程实现可借鉴：用已有 adapter 的 logits/策略输出和 reward 值做最小二乘估计权重，无需额外梯度更新。